09. sklearn 中的 AdaBoost

sklearn 中的 AdaBoost

在 sklearn 中建立 AdaBoost 模型与建立其他模型相同。你可以使用 scikit-learn 的 AdaBoost Classifier 类。该类提供函数来定义你的模型,并将模型与数据进行拟合。

>>> from sklearn.ensemble import AdaBoostClassifier
>>> model = AdaBoostClassifier()
>>> model.fit(x_train, y_train)
>>> model.predict(x_test)

在上面的例子中, model 变量是一个决策树模型,它与数据 x_values y_values 进行拟合。函数 fit predict 的功能与之前相同。

超参数

当我们定义模型时,我们可以确定超参数。在实际操作中,最常见的超参数为:

  • base_estimator : 弱学习器使用的模型( 切勿忘记导入该模型 )。
  • n_estimators : 使用的弱学习器的最大数量。

比如在下面的例子中,我们定义了一个模型,它使用 max_depth 为 2 的决策树作为弱学习器,并且它允许的弱学习器的最大数量为 4。
```python

from sklearn.tree import DecisionTreeClassifier
model = AdaBoostClassifier(base_estimator = DecisionTreeClassifier(max_depth=2), n_estimators = 4)```